清明节AI复活亲人成热门生意,商家称最高一天有上百个订单,专家认为应加强行业监管
资讯
2024-04-05
359
4月4日,清明节前AI复活亲人生意火热的话题登上热搜,引发热议。所谓复活就是基于照片、音频等历史数据,利用AI技术重现已逝人物的神情、声音、行为等。
AI复活仿佛是一个潘多拉魔盒,此前有人利用此技术复活已故公众人物李玟、乔任梁、高以翔等人,并在网络上发布动态视频引发争议。他们的亲属纷纷发声表示受到情感伤害。
九派新闻发现,在电商平台上许多商家正在做着AI复活的生意,这些商品的定价不等,标价从几元、几十元,到上百元,乃至数千元的都有,所提供的产品也参差不齐。甚至有人为了赚快钱,只是简单的让照片动起来。
在某平台上,还有商家趁势推出AI复活师的教学套餐和代理服务,有意将单一的生意打造成一条完整的产业链。
流浪地球影片当中的图恒宇和丫丫。图/流浪地球官方
【1】有客户激动得热泪盈眶
林志今年30岁,是校友说AI生命的创始人,从去年4月开始涉足AI人像模拟训练、声音克隆等业务,是国内较早推出AI复刻产品的团队。
4月3日,九派新闻联系林志,他表示临近清明节,AI复活去世亲人的业务愈发火爆,最高的一天有上百个订单,日收入有两三万元。他介绍,以前技术不成熟,团队每接一个订单需耗费大量时间,所以收费为1000元至1万元不等。
从去年底开始,就降到一个普惠版本,价格为298元。对于市面上定价10元以内的AI复活商家,林志称这种服务只能让人物的嘴动起来,单次成本低。而他所交付的产品,不仅能够拥有逝者的形象和声音,并且可以实时互动聊天。
制作方只需提供清晰的照片、录音,和一小段文字,可以描述对方信息、喜好、生平。将以上材料交给算法后,会生成一个小程序。拿着设置好的密码,像打开自家门一样,就能跟复刻的人物随时聊天。
林志回忆最初接触AI复活,是在2019年,将因病去世的姥爷形象转化为数字生命。当从屏幕中见到姥爷的那一刻,他很欣喜,觉得还能跟姥爷说说话。但之后,他便从神态和语气中看出了浓厚的AI味,让其无法沉浸,感觉缺乏了姥爷的灵魂。
2022年,随着AI大模型的构建,人工智能领域的快速发展,愈来愈多人嗅到AI复刻业务的商机。当时,林志周围有亲戚、老师相继离世,令其感触很深,他认为通过数字化能够将人过去的思想、故事、经验复刻,于是也投身其中。
最初,来咨询的顾客基本为复活去世亲人,以此达到精神慰藉。他记得,有些客户看见去世亲人以数字化的方式出现后,激动得热泪盈眶,会感谢林志。但也有些客户认为AI复刻的人物不像亲人,始终无法沉浸对话。
林志认为,现在还达不到完全复刻的标准,因为AI形象的效果,不管是声音、动态效果还是外貌,都距离完美的人机难辨差得很远。
如今,也有一些客户通过AI建立数字分身,在网络创设自己的虚拟形象。运用在不同的交互场景时,会有不同的效果。例如,有个作家找我们做数字分身,读者扫一下书上的二维码,就能跟作家进行对话。他说。
他告诉九派新闻,AI复活业务越发火热,但乱象也频频出现。曾经有几名前来咨询的客户,就连逝者的基本信息、相关生平、人际关系和重大事件都不清楚,于是他们果断拒绝这种订单。之后,我们肯定是要核实委托者是否为直系亲属,并且会签订电子合同,规避法律风险。
对于林志的团队而言,目前遇到最大的难题为方言克隆、客户提供的录音噪音、实时互动思想难以完全复刻。但他对团队的发展和AI复刻行业很乐观,他认为随着技术进步,AI复活的概念还会持续升级。
未来数字人会越来越像现实中的人,不管是点头、摇头、眨眼、动嘴,还可能手舞足蹈,有常见的一些习惯,最核心的就是灵魂。他说。
【2】AI复活应严格审核买家
上海大学法学院教授陈敬根认为,AI复活存在诈骗的隐患,未来大量AI生成的虚假信息可能引发社会负面情绪,导致信任危机。为防止次生灾害的发生,需要系统化、体系化的应对方式。
一方面,要加快AI领域的立法;另一方面,也应该看到,画出底线和红线的硬法固然不可缺位,但为了弥补立法的滞后性,在人工智能等新兴领域,当前应提倡设立更多的软法,即通过行业协会、团体组织等自发制定的规则,产生集体约束力,由此在法律底线之上起到行业监管的作用。
AI工作室。图/平台截图
此外,AI复活同样面临法律的审视。
河南泽槿律师事务所主任付建在接受九派新闻采访时表示,AI复活可能会侵犯逝者的隐私权和肖像权。
根据《民法典》第九百九十四条规定,死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任;死者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。
因此,逝者的肖像、名誉、隐私等仍受法律保护,如果没有经过逝者亲属等许可的情况下,擅自使用AI技术复活逝者,并通过视频等方式传播确有侵权的嫌疑。
如果商家审核不当或恶意泄露,那将承担法律风险,同时会对逝者亲属带来难以弥补的精神伤害。如果买家并非逝者的亲属或拥有合法授权,而商家也未尽到审核义务便利用AI技术为买家提供服务,那么他们的行为构成民事侵权,需承担民事责任。
对于商家而言,要想规避法律风险,必须严格尽到审慎义务。在服务前应当要求买家提供身份证明、授权证明,确保对方拥有合法依据,同时制定完善细备的合同协议,对双方权利义务和违约责任进行约定;在制作时,应遵循合同条款和法律规定,保护好个人信息,不得泄露;在服务后,应设置举报投诉通道,一旦有违规行为,立刻采取补救措施。
他提醒,需尽快制定相关的法律法规,建立一个监管框架,明确产业参与者的权利和义务,包括数据收集、处理、使用和保护的规定,以及对AI模拟亲人的行为和责任的界定。同时建立伦理审查机制,确保AI数字复活亲人产业的发展符合伦理标准,不侵犯人类尊严,不造成社会伤害。
九派新闻记者 陶梓童
编辑 吴迪
【爆料】请联系记者微信:linghaojizhe
【来源:九派新闻】
声明:此文版权归原作者所有,若有来源错误或者侵犯您的合法权益,您可通过邮箱与我们取得联系,我们将及时进行处理。邮箱地址:jpbl@jp.jiupainews.com
本站涵盖的内容、图片、视频等数据系网络收集,部分未能与原作者取得联系。若涉及版权问题,请联系我们删除!联系邮箱:ynstorm@foxmail.com 谢谢支持!
4月4日,清明节前AI复活亲人生意火热的话题登上热搜,引发热议。所谓复活就是基于照片、音频等历史数据,利用AI技术重现已逝人物的神情、声音、行为等。
AI复活仿佛是一个潘多拉魔盒,此前有人利用此技术复活已故公众人物李玟、乔任梁、高以翔等人,并在网络上发布动态视频引发争议。他们的亲属纷纷发声表示受到情感伤害。
九派新闻发现,在电商平台上许多商家正在做着AI复活的生意,这些商品的定价不等,标价从几元、几十元,到上百元,乃至数千元的都有,所提供的产品也参差不齐。甚至有人为了赚快钱,只是简单的让照片动起来。
在某平台上,还有商家趁势推出AI复活师的教学套餐和代理服务,有意将单一的生意打造成一条完整的产业链。
流浪地球影片当中的图恒宇和丫丫。图/流浪地球官方
【1】有客户激动得热泪盈眶
林志今年30岁,是校友说AI生命的创始人,从去年4月开始涉足AI人像模拟训练、声音克隆等业务,是国内较早推出AI复刻产品的团队。
4月3日,九派新闻联系林志,他表示临近清明节,AI复活去世亲人的业务愈发火爆,最高的一天有上百个订单,日收入有两三万元。他介绍,以前技术不成熟,团队每接一个订单需耗费大量时间,所以收费为1000元至1万元不等。
从去年底开始,就降到一个普惠版本,价格为298元。对于市面上定价10元以内的AI复活商家,林志称这种服务只能让人物的嘴动起来,单次成本低。而他所交付的产品,不仅能够拥有逝者的形象和声音,并且可以实时互动聊天。
制作方只需提供清晰的照片、录音,和一小段文字,可以描述对方信息、喜好、生平。将以上材料交给算法后,会生成一个小程序。拿着设置好的密码,像打开自家门一样,就能跟复刻的人物随时聊天。
林志回忆最初接触AI复活,是在2019年,将因病去世的姥爷形象转化为数字生命。当从屏幕中见到姥爷的那一刻,他很欣喜,觉得还能跟姥爷说说话。但之后,他便从神态和语气中看出了浓厚的AI味,让其无法沉浸,感觉缺乏了姥爷的灵魂。
2022年,随着AI大模型的构建,人工智能领域的快速发展,愈来愈多人嗅到AI复刻业务的商机。当时,林志周围有亲戚、老师相继离世,令其感触很深,他认为通过数字化能够将人过去的思想、故事、经验复刻,于是也投身其中。
最初,来咨询的顾客基本为复活去世亲人,以此达到精神慰藉。他记得,有些客户看见去世亲人以数字化的方式出现后,激动得热泪盈眶,会感谢林志。但也有些客户认为AI复刻的人物不像亲人,始终无法沉浸对话。
林志认为,现在还达不到完全复刻的标准,因为AI形象的效果,不管是声音、动态效果还是外貌,都距离完美的人机难辨差得很远。
如今,也有一些客户通过AI建立数字分身,在网络创设自己的虚拟形象。运用在不同的交互场景时,会有不同的效果。例如,有个作家找我们做数字分身,读者扫一下书上的二维码,就能跟作家进行对话。他说。
他告诉九派新闻,AI复活业务越发火热,但乱象也频频出现。曾经有几名前来咨询的客户,就连逝者的基本信息、相关生平、人际关系和重大事件都不清楚,于是他们果断拒绝这种订单。之后,我们肯定是要核实委托者是否为直系亲属,并且会签订电子合同,规避法律风险。
对于林志的团队而言,目前遇到最大的难题为方言克隆、客户提供的录音噪音、实时互动思想难以完全复刻。但他对团队的发展和AI复刻行业很乐观,他认为随着技术进步,AI复活的概念还会持续升级。
未来数字人会越来越像现实中的人,不管是点头、摇头、眨眼、动嘴,还可能手舞足蹈,有常见的一些习惯,最核心的就是灵魂。他说。
【2】AI复活应严格审核买家
上海大学法学院教授陈敬根认为,AI复活存在诈骗的隐患,未来大量AI生成的虚假信息可能引发社会负面情绪,导致信任危机。为防止次生灾害的发生,需要系统化、体系化的应对方式。
一方面,要加快AI领域的立法;另一方面,也应该看到,画出底线和红线的硬法固然不可缺位,但为了弥补立法的滞后性,在人工智能等新兴领域,当前应提倡设立更多的软法,即通过行业协会、团体组织等自发制定的规则,产生集体约束力,由此在法律底线之上起到行业监管的作用。
AI工作室。图/平台截图
此外,AI复活同样面临法律的审视。
河南泽槿律师事务所主任付建在接受九派新闻采访时表示,AI复活可能会侵犯逝者的隐私权和肖像权。
根据《民法典》第九百九十四条规定,死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任;死者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。
因此,逝者的肖像、名誉、隐私等仍受法律保护,如果没有经过逝者亲属等许可的情况下,擅自使用AI技术复活逝者,并通过视频等方式传播确有侵权的嫌疑。
如果商家审核不当或恶意泄露,那将承担法律风险,同时会对逝者亲属带来难以弥补的精神伤害。如果买家并非逝者的亲属或拥有合法授权,而商家也未尽到审核义务便利用AI技术为买家提供服务,那么他们的行为构成民事侵权,需承担民事责任。
对于商家而言,要想规避法律风险,必须严格尽到审慎义务。在服务前应当要求买家提供身份证明、授权证明,确保对方拥有合法依据,同时制定完善细备的合同协议,对双方权利义务和违约责任进行约定;在制作时,应遵循合同条款和法律规定,保护好个人信息,不得泄露;在服务后,应设置举报投诉通道,一旦有违规行为,立刻采取补救措施。
他提醒,需尽快制定相关的法律法规,建立一个监管框架,明确产业参与者的权利和义务,包括数据收集、处理、使用和保护的规定,以及对AI模拟亲人的行为和责任的界定。同时建立伦理审查机制,确保AI数字复活亲人产业的发展符合伦理标准,不侵犯人类尊严,不造成社会伤害。
九派新闻记者 陶梓童
编辑 吴迪
【爆料】请联系记者微信:linghaojizhe
【来源:九派新闻】
声明:此文版权归原作者所有,若有来源错误或者侵犯您的合法权益,您可通过邮箱与我们取得联系,我们将及时进行处理。邮箱地址:jpbl@jp.jiupainews.com
本站涵盖的内容、图片、视频等数据系网络收集,部分未能与原作者取得联系。若涉及版权问题,请联系我们删除!联系邮箱:ynstorm@foxmail.com 谢谢支持!